W11–W12. Положительно определённые матрицы, квадратичные формы и оптимизация

1. Краткое содержание

1.1 Введение и мотивация

В одномерном случае вопрос «положительно ли это число?» имеет однозначный ответ: \(a > 0\) тогда и только тогда, когда \(ax^2 > 0\) для любого ненулевого \(x\). Положительно определённые матрицы (positive definite matrices) — прямой матричный аналог положительных чисел. Симметричная матрица \(A\) называется положительно определённой (positive definite, PD), если квадратичное выражение \(x^T A x\) положительно для любого ненулевого вектора \(x\). Это одно условие — его иногда называют неравенством положительной определённости (positive-definite inequality) — связывает воедино собственные значения, определители, факторизации матриц, форму функций и задачи оптимизации.

Такие матрицы постоянно встречаются в прикладной математике и инженерии:

• Геометрия: гессиан строго выпуклой функции положительно определён; линии уровня — эллипсоиды.
• Оптимизация: в критической точке, где гессиан положительно определён, гарантирован локальный минимум (local minimum).
• Статистика: ковариационные матрицы положительно полуопределены (positive semi-definite, PSD); корректная корреляционная структура это требует.
• Численные методы: разложение Холецкого (Cholesky factorization) — быстрый и устойчивый решатель — существует ровно тогда, когда матрица положительно определена.
• Машинное обучение: ядерные матрицы должны быть PSD, чтобы теория была корректно поставлена.

Ниже — путь от определения к приложениям: критерий по собственным значениям (eigenvalue test), критерий Сильвестра (Sylvester’s criterion), разложение Холецкого (Cholesky decomposition), геометрия квадратичных форм (quadratic forms), оптимизация через гессиан (Hessian), выпуклость (convexity) и обобщение на комплексные эрмитовы (Hermitian) матрицы.

1.2 Положительно определённые и положительно полуопределённые матрицы

Определение (положительно определённая, PD). Симметричная матрица \(A \in \mathbb{R}^{n \times n}\) называется положительно определённой, если

\[x^T A x > 0 \quad \text{для всех } x \in \mathbb{R}^n,\; x \neq 0.\]

Пишут \(A \succ 0\).

Определение (положительно полуопределённая, PSD). Симметричная матрица \(A\) называется положительно полуопределённой, если

\[x^T A x \geq 0 \quad \text{для всех } x \in \mathbb{R}^n.\]

Пишут \(A \succeq 0\). Разница в том, что у PSD допускается равенство нулю при некотором ненулевом \(x\); у PD — нет.

Помимо PD и PSD встречаются ещё два типа. Симметричная матрица отрицательно определённая (negative definite, ND), если \(x^T A x < 0\) для всех \(x \neq 0\), т.е. \(-A\) — PD. Она неопределённая (indefinite), если \(x^T A x\) принимает и положительные, и отрицательные значения на разных ненулевых векторах; в неопределённом случае матрица не является ни PD, ни PSD, ни ND, ни отрицательно полуопределённой (negative semi-definite, NSD).

Выражение \(x^T A x\) называется квадратичной формой (quadratic form); оно — тема раздела 1.3.

1.2.1 Простые примеры

У диагональной матрицы \(A = \text{diag}(d_1, d_2, \ldots, d_n)\) имеем \(x^T A x = \sum_{i=1}^n d_i x_i^2\). Сумма положительна для всех \(x \neq 0\) тогда и только тогда, когда каждое \(d_i > 0\). Следовательно:

• диагональная матрица PD тогда и только тогда, когда все диагональные элементы положительны;
• она PSD тогда и только тогда, когда все диагональные элементы неотрицательны.

Для симметричной матрицы \(2 \times 2\), \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix}\), квадратичная форма \(x^T A x = ax_1^2 + 2bx_1 x_2 + cx_2^2\). Выделение полного квадрата (completing the square) по \(x_1\):

\[ax_1^2 + 2bx_1 x_2 + cx_2^2 = a\!\left(x_1 + \frac{b}{a}x_2\right)^{\!2} + \left(c - \frac{b^2}{a}\right)x_2^2 \quad (a \neq 0).\]

Чтобы это было \(> 0\) для всех \((x_1, x_2) \neq (0, 0)\), необходимо и достаточно \(a > 0\) и \(c - b^2/a > 0\) (т.е. \(ac - b^2 > 0\)). Это критерий Сильвестра в случае \(2 \times 2\).

1.3 Квадратичные формы

1.3.1 Определение и матричное представление

Квадратичная форма в \(n\) переменных — однородный многочлен второй степени:

\[Q(x_1, \ldots, x_n) = \sum_{i=1}^n \sum_{j=1}^n c_{ij} x_i x_j.\]

Любую квадратичную форму можно записать как \(Q(x) = x^T A x\) с симметричной матрицей \(A\). Симметрия достигается разбиением коэффициента: если исходный коэффициент при \(x_i x_j\) (\(i \neq j\)) равен \(\alpha\), то \(A_{ij} = A_{ji} = \alpha/2\); на диагонали \(A_{ii}\) стоит коэффициент при \(x_i^2\).

Правило «считывания» \(A\): пусть \(Q(x) = \sum_i a_{ii} x_i^2 + \sum_{i < j} \alpha_{ij} x_i x_j\).

• \(A_{ii} = a_{ii}\) (коэффициент при \(x_i^2\)),
• \(A_{ij} = A_{ji} = \alpha_{ij}/2\) (половина коэффициента при \(x_i x_j\)).

Пример: \(Q(x_1, x_2) = 3x_1^2 + 4x_1 x_2 + 2x_2^2\). Коэффициент при \(x_1 x_2\) равен \(4\), поэтому \(A_{12} = 2\). Итак \(A = \begin{pmatrix} 3 & 2 \\ 2 & 2 \end{pmatrix}\).

Симметрия важна: она даёт

• единственное матричное представление,
• вещественные собственные значения (спектральная теорема, Spectral Theorem),
• прямую связь знака \(Q\) со знаками собственных значений \(A\).

1.3.2 Приведение квадратичной формы к диагональному виду

Спектральная теорема утверждает, что у любой вещественной симметричной матрицы есть ортогональное разложение \(A = Q \Lambda Q^T\) с ортогональной \(Q\) и \(\Lambda = \text{diag}(\lambda_1, \ldots, \lambda_n)\). При замене \(y = Q^T x\) (эквивалентно \(x = Qy\)):

\[x^T A x = (Qy)^T A (Qy) = y^T (Q^T A Q) y = y^T \Lambda y = \sum_{i=1}^n \lambda_i y_i^2.\]

Квадратичная форма становится чистой суммой квадратов в новых координатах. Так как \(Q\) обратима, \(y \neq 0 \iff x \neq 0\). Поэтому

\[x^T A x > 0 \text{ для всех } x \neq 0 \iff \sum_{i=1}^n \lambda_i y_i^2 > 0 \text{ для всех } y \neq 0 \iff \lambda_i > 0\ (i=1,\ldots,n).\]

Эта эквивалентность — основа критерия по собственным значениям.

1.4 Эквивалентные условия положительной определённости

Для симметричной матрицы \(A\) следующие утверждения эквивалентны:

1. Определение: \(x^T A x > 0\) для всех \(x \neq 0\).
2. Критерий по собственным значениям: все \(\lambda_i(A) > 0\).
3. Критерий Сильвестра: все ведущие главные миноры (leading principal minors) положительны, т.е. \(\det(A_k) > 0\) для \(k = 1, 2, \ldots, n\), где \(A_k\) — левый верхний блок \(k \times k\) матрицы \(A\).
4. Факторизация Холецкого: существует обратимая нижнетреугольная матрица \(L\) с положительной диагональю такая, что \(A = LL^T\).

Каждое условие задаёт свой вычислительный маршрут.

1.4.1 Критерий по собственным значениям

Он вытекает из приведения к диагональному виду в п. 1.3.2: нагляден концептуально, но для больших матриц дорог (собственные значения — из характеристического многочлена).

Для симметричной PSD: все собственные значения \(\geq 0\) (неравенство нестрогое; одно из значений может быть нулём).

1.4.2 Критерий Сильвестра

Ведущий главный минор порядка \(k\) — это \(\Delta_k = \det(A_k)\). Критерий Сильвестра:

\[A \succ 0 \iff \Delta_1 > 0,\; \Delta_2 > 0,\; \ldots,\; \Delta_n > 0.\]

Для матрицы \(2 \times 2\), \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix}\), это сводится к \(a > 0\) и \(ac - b^2 > 0\). Проверка быстрая, без вычисления спектра.

Важно про PSD: из условий \(\Delta_k \geq 0\) на ведущих минорах не следует PSD в общем случае: матрица может иметь все неотрицательные ведущие главные миноры и при этом не быть PSD (нужны все главные миноры, не только ведущие). В рамках курса для PSD удобнее опираться на критерий по собственным значениям.

1.4.3 Определённость «с первого взгляда»

Для симметричной \(2 \times 2\), \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix}\):

Условие	Класс
\(a > 0\) и \(\det A > 0\)	Положительно определённая
\(a < 0\) и \(\det A > 0\)	Отрицательно определённая
\(\det A < 0\)	Неопределённая
\(\det A = 0\)	Полуопределённая (знак по следу)

1.5 Разложение Холецкого

Теорема (Холецкий). Симметричная матрица \(A\) положительно определена тогда и только тогда, когда существует единственная нижнетреугольная матрица \(L\) со строго положительной диагональю такая, что \(A = LL^T\).

Разложение \(A = LL^T\) называют разложением Холецкого (Cholesky decomposition) для \(A\) — матричный аналог извлечения положительного квадратного корня из числа. Из нижнетреугольности \(L\) следует удобство прямой подстановки (forward substitution) и высокая устойчивость; по стоимости это примерно вдвое быстрее LU-разложения.

Почему из разложения следует PD: если \(x \neq 0\) и \(L\) обратима, то \(Lx \neq 0\), значит \(x^T A x = x^T L L^T x = (L^T x)^T (L^T x) = \|L^T x\|^2 > 0\).

Разложение \(LDL^T\): близкая форма \(A = LDL^T\), где \(L\) — унитнижнетреугольная (единицы на диагонали), \(D = \text{diag}(d_1, \ldots, d_n)\). Его даёт исключение Гаусса; \(d_i\) — опорные элементы (pivots). При \(A \succ 0\) (тогда \(d_i > 0\)) фактор Холецкого получается как \(L_{\text{chol}} = L D^{1/2}\). Форма \(LDL^T\) удобна тем, что явно выписывает квадратичную форму:

\[x^T A x = x^T L D L^T x = (L^T x)^T D (L^T x) = \sum_{i=1}^n d_i y_i^2, \quad y = L^T x.\]

Опорные элементы \(d_i\) в \(LDL^T\) положительны тогда и только тогда, когда \(A \succ 0\).

1.6 Геометрия квадратичных форм

Определённость \(A\) задаёт форму поверхности \(z = x^T A x\):

Класс	Знаки \(\lambda_i\)	Вид \(z = x^T Ax\)	Особая точка
PD	все \(\lambda_i > 0\)	Эллиптический параболоид («чаша»)	Единственный глобальный минимум
PSD	все \(\lambda_i \geq 0\), часть \(= 0\)	Параболический цилиндр («жёлоб»)	Минимум вдоль прямой
Неопределённая	смешанные знаки	Седловой параболоид	Седло
ND	все \(\lambda_i < 0\)	Перевёрнутая чаша	Единственный глобальный максимум

Линии уровня \(\{x : x^T A x = c\}\):

• эллипсы (эллипсоиды), если \(A \succ 0\);
• параллельные прямые (гиперплоскости), если \(A\) PSD с нулевым собственным значением;
• гиперболы, если \(A\) неопределённа.

Отсюда ясно, почему PD-гессиан в критической точке указывает на минимум.

1.7 Оптимизация: гессиан и критические точки

Пусть \(f : \mathbb{R}^n \to \mathbb{R}\) дважды дифференцируема.

• Точка \(x_0\) — критическая точка (critical point), если \(\nabla f(x_0) = 0\).
• Матрица Гессиана (Hessian matrix) \(H(x_0)\) — симметричная матрица \(n \times n\) вторых частных производных: \(H_{ij}(x_0) = \dfrac{\partial^2 f}{\partial x_i \partial x_j}(x_0)\).

Тест второго порядка (много переменных):

Условие на \(H(x_0)\)	Тип точки \(x_0\)
\(H(x_0) \succ 0\)	Строгий локальный минимум
\(H(x_0) \prec 0\)	Строгий локальный максимум
\(H(x_0)\) неопределённа	Седло
\(H(x_0)\) вырождена	Тест не даёт ответа

Смысл: квадратичное приближение \(f(x_0 + \delta) \approx f(x_0) + \tfrac{1}{2}\delta^T H(x_0)\delta\) (линейный член обнуляется в критической точке) — «чаша», если \(H \succ 0\), перевёрнутая чаша при \(H \prec 0\), седло при неопределённом \(H\).

Типовой план:

1. Найти \(\nabla f\) и решить \(\nabla f(x_0) = 0\).
2. Вычислить \(H(x_0)\) в каждой критической точке.
3. Классифицировать \(H(x_0)\) по собственным значениям или критерию Сильвестра.

1.8 Выпуклость

Определение (выпуклая функция). \(f : \mathbb{R}^n \to \mathbb{R}\) выпукла (convex), если для всех \(x, y \in \mathbb{R}^n\) и \(t \in [0, 1]\)

\[f(tx + (1-t)y) \leq t\,f(x) + (1-t)\,f(y).\]

Если неравенство строгое при \(x \neq y\) и \(t \in (0,1)\), \(f\) строго выпуклая (strictly convex).

Критерий выпуклости по гессиану: для дважды дифференцируемой \(f\)

• \(f\) выпукла \(\iff\) \(H(x) \succeq 0\) для всех \(x\);
• \(f\) строго выпукла \(\Leftarrow\) \(H(x) \succ 0\) для всех \(x\) (обратное в общем случае неверно, но этого достаточного условия нам хватает).

Зачем это нужно: у выпуклой функции любой локальный минимум — глобальный. На этом стоит выпуклая оптимизация (convex optimization) и многие приложения — от машинного обучения до исследования операций.

1.9 Эрмитовы положительно определённые матрицы

Для комплексных матриц роль симметричных играют эрмитовы (Hermitian): \(A \in \mathbb{C}^{n \times n}\) эрмитова, если \(A^* = A\), где \(A^*\) — сопряжённо-транспонированная (\(A^*_{ij} = \overline{A_{ji}}\)). Тогда \(x^* A x \in \mathbb{R}\) для любого \(x \in \mathbb{C}^n\), и знак «положительности» определён корректно.

Определение (HPD). Эрмитова \(A \in \mathbb{C}^{n \times n}\) эрмитова положительно определённая (Hermitian positive definite, HPD), если

\[x^* A x > 0 \quad \text{для всех } x \in \mathbb{C}^n,\; x \neq 0.\]

Определение (HPSD). \(A\) эрмитова положительно полуопределённая (Hermitian positive semi-definite, HPSD), если \(x^* A x \geq 0\) для всех \(x \in \mathbb{C}^n\).

Эквивалентности те же, что в вещественном случае:

Условие	Эквивалентная формулировка
\(A\) — HPD	все собственные значения \(A\) вещественны и положительны
\(A\) — HPD	\(A = LL^*\) с обратимой нижнетреугольной \(L\) (Холецкий)
\(A\) — HPD	все ведущие главные миноры \(A\) положительны (Сильвестр)
\(A\) — HPSD	все собственные значения вещественны и неотрицательны
\(A\) — HPSD	\(A = LL^*\) для некоторой, возможно, вырожденной \(L\)

Собственные значения эрмитовой матрицы всегда вещественны (спектральная теорема для эрмитовых), поэтому требование «положительный спектр» над \(\mathbb{C}\) содержательно.

Конструкция \(A = LL^*\): любая матрица вида \(A = LL^*\) с обратимой \(L\) автоматически HPD — как из \(a = b^2\), \(b \neq 0\), следует \(a > 0\) в скалярном случае.

Важно: понятие положительной определённости над \(\mathbb{C}\) вводится для эрмитовых матриц. Если \(A\) не эрмитова, \(x^* Ax\) может быть невещественным, и HPD не определён.

---

2. Определения

• Положительно определённая матрица (positive definite, PD): симметричная \(A\) такая, что \(x^T A x > 0\) для всех ненулевых \(x\).
• Положительно полуопределённая (positive semi-definite, PSD): симметричная \(A\) такая, что \(x^T A x \geq 0\) для всех \(x\).
• Отрицательно определённая (negative definite, ND): симметричная \(A\) такая, что \(x^T A x < 0\) для всех ненулевых \(x\) (эквивалентно, \(-A\) — PD).
• Неопределённая матрица (indefinite): симметричная, не являющаяся ни PD, ни PSD, ни ND, ни NSD; эквивалентно, \(x^T Ax\) принимает и положительные, и отрицательные значения.
• Квадратичная форма (quadratic form): однородный многочлен 2-й степени в \(n\) переменных, запись \(Q(x) = x^T A x\) с симметричной \(A\).
• Ведущий главный минор порядка \(k\) (leading principal minor): определитель левого верхнего блока \(k \times k\) матрицы \(A\), обозначение \(\Delta_k\).
• Критерий Сильвестра (Sylvester’s criterion): \(A \succ 0 \iff \Delta_k > 0\) для всех \(k = 1, \ldots, n\).
• Разложение Холецкого (Cholesky decomposition): \(A = LL^T\) (вещественный случай) или \(A = LL^*\) (комплексный эрмитовый), где \(L\) нижнетреугольная с положительной диагональю; при \(A \succ 0\) существует и единственно.
• Разложение \(LDL^T\): \(A = LDL^T\), где \(L\) унитнижняя, \(D\) диагональна; диагональ \(D\) (pivots) положительна тогда и только тогда, когда \(A \succ 0\).
• Критическая точка (critical point): точка \(x_0\), где \(\nabla f(x_0) = 0\).
• Матрица Гессиана (Hessian matrix): симметричная матрица \(n \times n\) вторых частных производных \(f\), обозначение \(H(x)\); задаёт локальную кривизну.
• Выпуклая функция (convex function): \(f\) такая, что \(f(tx + (1-t)y) \leq tf(x) + (1-t)f(y)\) для всех \(x,y\) и \(t \in [0,1]\).
• Эрмитова матрица (Hermitian matrix): комплексная \(A\) с \(A^* = A\).
• Эрмитова положительно определённая (HPD): эрмитова \(A\) с \(x^* Ax > 0\) для всех ненулевых комплексных \(x\).
• Эрмитова положительно полуопределённая (HPSD): эрмитова \(A\) с \(x^* Ax \geq 0\) для всех комплексных \(x\).

---

3. Формулы

• Квадратичная форма в матричном виде: \(Q(x) = x^T A x\), \(A\) симметрична.
• Симметричная матрица по форме: \(A_{ii}\) — коэффициент при \(x_i^2\); \(A_{ij} = A_{ji} = \tfrac{1}{2}(\text{coefficient of } x_i x_j)\) при \(i \neq j\).
• Диагонализованная форма: \(x^T A x = \sum_{i=1}^n \lambda_i y_i^2\), где \(y = Q^T x\), столбцы \(Q\) — ортонормированные собственные векторы.
• Выделение полного квадрата (\(2 \times 2\)): \(ax_1^2 + 2bx_1 x_2 + cx_2^2 = a\!\left(x_1 + \tfrac{b}{a}x_2\right)^{\!2} + \tfrac{ac - b^2}{a}\,x_2^2\).
• Сильвестр (\(2 \times 2\)): \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix} \succ 0 \iff a > 0\) и \(ac - b^2 > 0\).
• Холецкий: \(A = LL^T\) (вещественная); \(A = LL^*\) (эрмитова).
• \(LDL^T\) и квадратичная форма: \(x^T A x = \sum_{i=1}^n d_i y_i^2\), \(y = L^T x\), \(d_i\) — опорные элементы.
• Произведение собственных значений: \(\det(A) = \prod_{i=1}^n \lambda_i\).
• Тест второго порядка: в критической точке \(x_0\): \(H(x_0) \succ 0 \Rightarrow\) локальный минимум; \(H(x_0) \prec 0 \Rightarrow\) локальный максимум; \(H(x_0)\) неопределённа \(\Rightarrow\) седло.
• Выпуклость по гессиану: \(f\) выпукла \(\iff H(x) \succeq 0\) для всех \(x\).
• Определитель HPD: \(\det(A) = \prod_{i} \lambda_i > 0\) (все \(\lambda_i > 0\)).

---

4. Примеры

4.1 Построить симметричную матрицу, не являющуюся PD (Лаба 9, Задание 1)

Дана симметричная матрица \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix}\) с положительными \(a, b, c\) и условием \(a + c > 2b\). Приведите конкретный пример матрицы, которая не положительно определена.

Нажмите, чтобы увидеть решение

Ключевая идея: для симметричной \(2 \times 2\) при \(a > 0\) свойство PD требует одновременно \(a > 0\) и \(\det(A) = ac - b^2 > 0\). Условие \(a + c > 2b\) не влечёт \(ac - b^2 > 0\); это независимые ограничения.

Нужны \(a, b, c > 0\), \(a + c > 2b\), но \(ac - b^2 \leq 0\) (чтобы матрица не была PD).

Построение: возьмём \(a = 1\), \(c = 4\), \(b = 2{,}4\).

• Проверка \(a + c > 2b\): \(1 + 4 = 5 > 4{,}8 = 2(2{,}4)\). ✓
• \(\det(A) = (1)(4) - (2{,}4)^2 = 4 - 5{,}76 = -1{,}76 < 0\).

Итак \(A = \begin{pmatrix} 1 & 2{,}4 \\ 2{,}4 & 4 \end{pmatrix}\) удовлетворяет всем условиям задачи, но неопределённая (не PD).

Почему так возможно: \(a + c > 2b\) ограничивает среднее арифметическое диагонали относительно внедиагонали, а PD требует \(b^2 < ac\) (связь со средним геометрическим). Эти ограничения совместимы — из \(a + c > 2b\) не следует \(ac > b^2\), поэтому можно нарушить PD, оставаясь в рамках условия.

4.2 Доказать: если \(A\) — SPD, то и \(A^{-1}\) — SPD (Лаба 9, Задание 2)

Пусть \(A\) симметрична и положительно определена. Докажите, что \(A^{-1}\) тоже симметрична и положительно определена.

Нажмите, чтобы увидеть решение

Шаг 1: симметричность \(A^{-1}\).

Так как \(A\) симметрична, \(A^T = A\). По тождеству \((A^{-1})^T = (A^T)^{-1}\):

\[(A^{-1})^T = (A^T)^{-1} = A^{-1}.\]

Значит \(A^{-1}\) симметрична.

Шаг 2: положительная определённость \(A^{-1}\).

По спектральной теореме у \(A\) вещественные собственные значения \(\lambda_1, \ldots, \lambda_n\). Из \(A \succ 0\) следует \(\lambda_i > 0\) для всех \(i\).

Собственные значения \(A^{-1}\) равны \(1/\lambda_1, \ldots, 1/\lambda_n\), все положительны.

По критерию по собственным значениям, \(A^{-1} \succ 0\).

Вывод: \(A^{-1}\) — SPD.

4.3 Матрица квадратичной формы и разложение \(LDL^T\) (Лаба 9, Задание 3)

Квадратичная форма \(f(x_1, x_2) = 3(x_1 + 2x_2)^2 + 4x_2^2\) положительна при всех \((x_1, x_2) \neq (0, 0)\). Найдите симметричную матрицу \(A\), разложение \(LDL^T\), числа \(d_i\) и линейную замену \(y = L^T x\).

Нажмите, чтобы увидеть решение

Шаг 1: раскрыть скобки и считать \(A\).

\[f(x_1, x_2) = 3(x_1 + 2x_2)^2 + 4x_2^2 = 3(x_1^2 + 4x_1x_2 + 4x_2^2) + 4x_2^2 = 3x_1^2 + 12x_1x_2 + 12x_2^2 + 4x_2^2.\]

\[f(x_1, x_2) = 3x_1^2 + 12x_1x_2 + 16x_2^2.\]

Коэффициент при \(x_1^2\) равен \(3\), при \(x_2^2\) — \(16\), при \(x_1 x_2\) — \(12 = 2 \cdot 6\). Значит \(A_{11} = 3\), \(A_{22} = 16\), \(A_{12} = A_{21} = 6\):

\[A = \begin{pmatrix} 3 & 6 \\ 6 & 16 \end{pmatrix}.\]

Шаг 2: \(LDL^T\) через исключение Гаусса.

Обнуляем \((2,1)\): множитель \(\ell_{21} = 6/3 = 2\).

• Первый опорный элемент: \(d_1 = a_{11} = 3\).
• Новый \((2,2)\) (дополнение Шура): \(d_2 = a_{22} - \ell_{21}^2 d_1 = 16 - 4 \cdot 3 = 4\).

Итого:

\[L = \begin{pmatrix} 1 & 0 \\ 2 & 1 \end{pmatrix}, \quad D = \begin{pmatrix} 3 & 0 \\ 0 & 4 \end{pmatrix}.\]

Проверка: \(LDL^T = \begin{pmatrix} 1 & 0 \\ 2 & 1 \end{pmatrix}\begin{pmatrix} 3 & 0 \\ 0 & 4 \end{pmatrix}\begin{pmatrix} 1 & 2 \\ 0 & 1 \end{pmatrix} = \begin{pmatrix} 3 & 0 \\ 6 & 4 \end{pmatrix}\begin{pmatrix} 1 & 2 \\ 0 & 1 \end{pmatrix} = \begin{pmatrix} 3 & 6 \\ 6 & 16 \end{pmatrix} = A.\) ✓

Шаг 3: замена.

\(y = L^T x = \begin{pmatrix} 1 & 2 \\ 0 & 1 \end{pmatrix}\begin{pmatrix} x_1 \\ x_2 \end{pmatrix} = \begin{pmatrix} x_1 + 2x_2 \\ x_2 \end{pmatrix}\).

Тогда \(f = y^T D y = 3y_1^2 + 4y_2^2 = 3(x_1 + 2x_2)^2 + 4x_2^2\), как в условии. ✓

Опорные элементы \(d_1 = 3 > 0\), \(d_2 = 4 > 0\) подтверждают \(A \succ 0\).

4.4 Локальный минимум по гессиану (Лаба 9, Задание 4)

Имеет ли \(F(x, y) = x^2 y^2 - 2x - 2y\) локальный минимум в точке \((1, 1)\)?

Нажмите, чтобы увидеть решение

Шаг 1: критическая точка \((1, 1)\).

\[\frac{\partial F}{\partial x} = 2xy^2 - 2, \quad \frac{\partial F}{\partial y} = 2x^2 y - 2.\]

В \((1, 1)\): \(\partial F/\partial x = 2(1)(1) - 2 = 0\) ✓ и \(\partial F/\partial y = 2(1)(1) - 2 = 0\) ✓.

Шаг 2: гессиан в \((1, 1)\).

\[\frac{\partial^2 F}{\partial x^2} = 2y^2, \quad \frac{\partial^2 F}{\partial x \partial y} = 4xy, \quad \frac{\partial^2 F}{\partial y^2} = 2x^2.\]

В \((1, 1)\):

\[H(1,1) = \begin{pmatrix} 2 & 4 \\ 4 & 2 \end{pmatrix}.\]

Шаг 3: критерий Сильвестра.

• \(a = 2 > 0\), но \(\det(H) = (2)(2) - (4)^2 = 4 - 16 = -12 < 0\).

Так как \(\det(H) < 0\), гессиан неопределён.

Вывод: \((1, 1)\) — седло, не локальный минимум.

4.5 Найти и классифицировать все критические точки (Лаба 9, Задание 5)

Найдите и классифицируйте все критические точки \(f(x, y) = 2x^3 - 3x^2 + 2y^3 + 3y^2 - 12x - 12y\).

Нажмите, чтобы увидеть решение

Шаг 1: критические точки.

\[\frac{\partial f}{\partial x} = 6x^2 - 6x - 12 = 6(x^2 - x - 2) = 6(x - 2)(x + 1) = 0 \implies x = 2 \text{ or } x = -1.\]

\[\frac{\partial f}{\partial y} = 6y^2 + 6y - 12 = 6(y^2 + y - 2) = 6(y + 2)(y - 1) = 0 \implies y = -2 \text{ or } y = 1.\]

Уравнения по \(x\) и \(y\) независимы, четыре критические точки — все пары: \((2, 1)\), \((2, -2)\), \((-1, 1)\), \((-1, -2)\).

Шаг 2: гессиан.

\[H(x,y) = \begin{pmatrix} 12x - 6 & 0 \\ 0 & 12y + 6 \end{pmatrix}.\]

Гессиан диагональный, знак определённости задают диагонали.

Шаг 3: классификация.

Точка	\(H_{11} = 12x-6\)	\(H_{22} = 12y+6\)	\(\det H\)	Класс
\((2, 1)\)	\(18 > 0\)	\(18 > 0\)	\(324 > 0\)	Локальный минимум
\((2, -2)\)	\(18 > 0\)	\(-18 < 0\)	\(-324 < 0\)	Седло
\((-1, 1)\)	\(-18 < 0\)	\(18 > 0\)	\(-324 < 0\)	Седло
\((-1, -2)\)	\(-18 < 0\)	\(-18 < 0\)	\(324 > 0\)	Локальный максимум

Итог: один локальный минимум в \((2, 1)\), один локальный максимум в \((-1, -2)\), сёдла в \((2, -2)\) и \((-1, 1)\).

4.6 Критерий Сильвестра для четырёх матриц (Лаба 9, Задание 6)

Даны: \[A_1 = \begin{pmatrix} 5 & 6 \\ 6 & 7 \end{pmatrix}, \quad A_2 = \begin{pmatrix} -1 & -2 \\ -2 & -5 \end{pmatrix}, \quad A_3 = \begin{pmatrix} 1 & 10 \\ 10 & 100 \end{pmatrix}, \quad A_4 = \begin{pmatrix} 1 & 10 \\ 10 & 101 \end{pmatrix}.\]

Определите, какая матрица PD (без вычисления собственных значений). Затем найдите \(x\) такой, что \(x^T A_1 x < 0\).

Нажмите, чтобы увидеть решение

Критерий Сильвестра для \(\begin{pmatrix} a & b \\ b & c \end{pmatrix}\): \(a > 0\) и \(ac - b^2 > 0\).

\(A_1\): \(a = 5 > 0\); \(\det(A_1) = (5)(7) - 36 = 35 - 36 = -1 < 0\) → неопределённая (не PD).

\(A_2\): \(a = -1 < 0\) → отрицательно определённая (не PD).

\(A_3\): \(a = 1 > 0\); \(\det(A_3) = (1)(100) - 100 = 0\) → PSD (не PD; одно нулевое собственное значение).

\(A_4\): \(a = 1 > 0\); \(\det(A_4) = (1)(101) - 100 = 1 > 0\) → \(A_4\) — PD. ✓

Вектор с \(x^T A_1 x < 0\):

Матрица \(A_1\) неопределённа, квадратичная форма \(x^T A_1 x = 5x_1^2 + 12 x_1 x_2 + 7x_2^2\) где-то отрицательна. При \(\det(A_1) < 0\) спектр знакопеременный, есть направления с отрицательной формой.

Попробуем \(x = \begin{pmatrix} 6 \\ -5 \end{pmatrix}\):

\[x^T A_1 x = 5(36) + 12(6)(-5) + 7(25) = 180 - 360 + 175 = -5 < 0. \checkmark\]

4.7 Матрица, опорные элементы, ранг, спектр и определитель вырожденной формы (Лаба 9, Задание 7)

Для \(f(x_1, x_2, x_3) = 4(x_1 - x_2 + 2x_3)^2\) найдите матрицу \(A\), её опорные элементы (pivots), ранг, собственные значения и \(\det A\).

Нажмите, чтобы увидеть решение

Шаг 1: \(A\) как внешнее произведение.

Пусть \(v = \begin{pmatrix} 1 \\ -1 \\ 2 \end{pmatrix}\). Тогда \(f(x) = 4(v^T x)^2 = x^T (4 v v^T) x\), т.е. \(A = 4 v v^T\).

\[A = 4 \begin{pmatrix} 1 \\ -1 \\ 2 \end{pmatrix} \begin{pmatrix} 1 & -1 & 2 \end{pmatrix} = \begin{pmatrix} 4 & -4 & 8 \\ -4 & 4 & -8 \\ 8 & -8 & 16 \end{pmatrix}.\]

Шаг 2: ранг.

Все строки пропорциональны \(\begin{pmatrix} 1 & -1 & 2 \end{pmatrix}\), значит \(\text{rank}(A) = 1\).

Шаг 3: собственные значения.

Для \(A = 4vv^T\) ранга 1:

• \(\lambda_1 = 4\|v\|^2 = 4(1 + 1 + 4) = 24\) (собственный вектор \(v\)),
• \(\lambda_2 = \lambda_3 = 0\) (двумерное ядро ортогонально \(v\)).

Шаг 4: опорные элементы.

Приведение строк: из первой строки вычитается кратная вторая и третья; ненулевой опорный только \(d_1 = 4\), далее \(d_2 = d_3 = 0\).

Шаг 5: определитель.

\[\det(A) = \prod_{i=1}^3 \lambda_i = 24 \cdot 0 \cdot 0 = 0.\]

Согласовано с рангом 1: матрица вырождена.

4.8 Выпуклость по гессиану (Лаба 9, Задание 8)

Проверьте выпуклость \(f(x, y) = x^2 + 2y^2 - xy + 3x - 2y + 5\).

Нажмите, чтобы увидеть решение

Ключевая идея: у дважды дифференцируемой функции выпуклость эквивалентна тому, что гессиан везде PSD. Здесь \(f\) — многочлен второй степени, гессиан постоянен.

Гессиан:

\[\frac{\partial^2 f}{\partial x^2} = 2, \quad \frac{\partial^2 f}{\partial x \partial y} = -1, \quad \frac{\partial^2 f}{\partial y^2} = 4.\]

\[H = \begin{pmatrix} 2 & -1 \\ -1 & 4 \end{pmatrix}.\]

Сильвестр:

• \(\Delta_1 = 2 > 0\). ✓
• \(\Delta_2 = \det(H) = (2)(4) - (-1)^2 = 8 - 1 = 7 > 0\). ✓

Имеем \(H \succ 0\) (сильнее, чем нужно для выпуклости). Значит \(f\) строго выпукла на \(\mathbb{R}^2\).

4.9 Эрмитова положительная определённость (Лаба 9, Задание 9)

Является ли \(A = \begin{pmatrix} 5 & 2 - i \\ 2 + i & 3 \end{pmatrix}\) матрицей HPD?

Нажмите, чтобы увидеть решение

Шаг 1: эрмитовость (\(A^* = A\)).

Нужно \(A_{21} = \overline{A_{12}}\). Здесь \(A_{12} = 2 - i\), \(\overline{A_{12}} = 2 + i = A_{21}\). ✓

Диагональ вещественна: \(A_{11} = 5\), \(A_{22} = 3\). ✓

Значит \(A\) эрмитова.

Шаг 2: критерий Сильвестра.

Для эрмитовой \(2 \times 2\): \(A_{11} > 0\) и \(\det(A) > 0\).

• \(A_{11} = 5 > 0\). ✓
• \(\det(A) = (5)(3) - (2-i)(2+i) = 15 - (4 + 1) = 15 - 5 = 10 > 0\). ✓

(Замечание: \((2-i)(2+i) = |2-i|^2 = 5\).)

Вывод: \(A\) — HPD.

4.10 Классификация пяти матриц (Домашнее задание 9, Задание 1)

Для каждой из матриц укажите: PD, PSD или ни то ни другое.

1. \(A = \begin{pmatrix} 3 & 0 \\ 0 & 5 \end{pmatrix}\), (b) \(B = \begin{pmatrix} 1 & 2 \\ 2 & 1 \end{pmatrix}\), (c) \(C = \begin{pmatrix} 4 & 0 \\ 0 & 0 \end{pmatrix}\), (d) \(D = \begin{pmatrix} 2 & -1 \\ -1 & 2 \end{pmatrix}\), (e) \(E = \begin{pmatrix} -1 & 0 \\ 0 & -3 \end{pmatrix}\).

Нажмите, чтобы увидеть решение

Приём: для симметричной \(2 \times 2\) смотрим \(a_{11}\) и \(\det\).

(a) \(A = \begin{pmatrix} 3 & 0 \\ 0 & 5 \end{pmatrix}\): диагональ \(3 > 0\), \(5 > 0\) → PD.

(b) \(B = \begin{pmatrix} 1 & 2 \\ 2 & 1 \end{pmatrix}\): \(b_{11} = 1 > 0\), \(\det(B) = 1 - 4 = -3 < 0\) → неопределённая (ни PD, ни PSD).

(c) \(C = \begin{pmatrix} 4 & 0 \\ 0 & 0 \end{pmatrix}\): собственные значения \(4 \geq 0\) и \(0\) → PSD (не PD).

(d) \(D = \begin{pmatrix} 2 & -1 \\ -1 & 2 \end{pmatrix}\): \(d_{11} = 2 > 0\), \(\det(D) = 3 > 0\) → PD.

(e) \(E = \begin{pmatrix} -1 & 0 \\ 0 & -3 \end{pmatrix}\): диагональ отрицательна → ND (ни PD, ни PSD).

4.11 Все \(k\), при которых матрица PD (Домашнее задание 9, Задание 2)

При каких \(k\) матрица \(A = \begin{pmatrix} 4 & k \\ k & 9 \end{pmatrix}\) положительно определена?

Нажмите, чтобы увидеть решение

Сильвестр:

• \(\Delta_1 = 4 > 0\). ✓ (для всех \(k\)).
• \(\Delta_2 = \det(A) = 36 - k^2 > 0 \iff k^2 < 36 \iff -6 < k < 6\).

Ответ: \(A \succ 0\) тогда и только тогда, когда \(\mathbf{-6 < k < 6}\).

4.12 Все \(c\), при которых матрица PD (Домашнее задание 9, Задание 3)

При каких \(c\) матрица \(B = \begin{pmatrix} c & 2 \\ 2 & c \end{pmatrix}\) положительно определена?

Нажмите, чтобы увидеть решение

Сильвестр:

• \(\Delta_1 = c > 0 \implies c > 0\).
• \(\Delta_2 = c^2 - 4 > 0 \implies c > 2\) или \(c < -2\).

Вместе с \(c > 0\) остаётся \(\mathbf{c > 2}\).

Ответ: \(B \succ 0\) \(\iff\) \(\mathbf{c > 2}\).

4.13 Критерий Сильвестра для матрицы \(3 \times 3\) (Домашнее задание 9, Задание 4)

С помощью критерия Сильвестра проверьте, положительно ли определена \(M = \begin{pmatrix} 2 & 1 & 0 \\ 1 & 2 & 1 \\ 0 & 1 & 2 \end{pmatrix}\).

Нажмите, чтобы увидеть решение

Три ведущих главных минора.

\(\Delta_1\): \(\Delta_1 = 2 > 0\). ✓

\(\Delta_2\): \(\Delta_2 = \det\begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix} = 4 - 1 = 3 > 0\). ✓

\(\Delta_3 = \det(M)\): разложение по первой строке:

\[\Delta_3 = 2 \det\begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix} - 1 \cdot \det\begin{pmatrix} 1 & 1 \\ 0 & 2 \end{pmatrix} + 0 = 2(3) - 1(2) = 6 - 2 = 4 > 0. \checkmark\]

Все ведущие главные миноры положительны → по Сильвестру \(M\) PD.

4.14 Собственные значения и определённость \(2 \times 2\) (Домашнее задание 9, Задание 5)

Найдите собственные значения \(A = \begin{pmatrix} 5 & 2 \\ 2 & 3 \end{pmatrix}\) и определите, PD ли \(A\).

Нажмите, чтобы увидеть решение

Шаг 1: характеристический многочлен.

\[\det(A - \lambda I) = (5 - \lambda)(3 - \lambda) - 4 = \lambda^2 - 8\lambda + 15 - 4 = \lambda^2 - 8\lambda + 11 = 0.\]

Шаг 2: корни.

\[\lambda = \frac{8 \pm \sqrt{64 - 44}}{2} = \frac{8 \pm \sqrt{20}}{2} = 4 \pm \sqrt{5}.\]

То есть \(\lambda_1 = 4 + \sqrt{5} \approx 6{,}24\), \(\lambda_2 = 4 - \sqrt{5} \approx 1{,}76\).

Шаг 3: критерий по спектру.

Оба собственных значения положительны (\(\sqrt{5} \approx 2{,}24 < 4\), значит \(\lambda_2 > 0\)).

Вывод: \(A\) — PD.

4.15 Симметричная матрица квадратичной формы в трёх переменных (Домашнее задание 9, Задание 6)

Пусть \(Q(\mathbf{x}) = 3x_1^2 + 2x_2^2 + 4x_3^2 - 2x_1 x_2 + 4x_2 x_3\).

1. Запишите \(Q\) в виде \(\mathbf{x}^T A \mathbf{x}\) с симметричной \(A\).
2. Является ли \(A\) положительно определённой?

Нажмите, чтобы увидеть решение

(a) Матрица по коэффициентам.

Член	Коэффициент	Элемент
\(x_1^2\)	\(3\)	\(A_{11} = 3\)
\(x_2^2\)	\(2\)	\(A_{22} = 2\)
\(x_3^2\)	\(4\)	\(A_{33} = 4\)
\(x_1 x_2\)	\(-2\)	\(A_{12} = A_{21} = -1\)
\(x_2 x_3\)	\(4\)	\(A_{23} = A_{32} = 2\)
\(x_1 x_3\)	\(0\)	\(A_{13} = A_{31} = 0\)

\[A = \begin{pmatrix} 3 & -1 & 0 \\ -1 & 2 & 2 \\ 0 & 2 & 4 \end{pmatrix}.\]

(b) Сильвестр.

• \(\Delta_1 = 3 > 0\). ✓
• \(\Delta_2 = (3)(2) - (-1)^2 = 5 > 0\). ✓
• \(\Delta_3 = \det(A)\) по первой строке:

\[\Delta_3 = 3\det\begin{pmatrix} 2 & 2 \\ 2 & 4 \end{pmatrix} - (-1)\det\begin{pmatrix} -1 & 2 \\ 0 & 4 \end{pmatrix} + 0 = 3(8 - 4) + 1(-4 - 0) = 12 - 4 = 8 > 0. \checkmark\]

Все ведущие миноры положительны → \(A\) PD.

4.16 Выделение полного квадрата и PD (Домашнее задание 9, Задание 7)

Для \(Q(x, y) = 2x^2 + 2xy + 2y^2\):

1. выпишите симметричную матрицу;
2. выделите полные квадраты;
3. установите, PD ли \(Q\).

Нажмите, чтобы увидеть решение

(a) коэффициенты при \(x^2\), \(y^2\) равны \(2\), при \(xy\) — \(2\), значит \(A_{12} = 1\):

\[A = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix}.\]

(b)

\[Q = 2x^2 + 2xy + 2y^2 = 2\!\left(x^2 + xy\right) + 2y^2 = 2\!\left(x + \frac{y}{2}\right)^{\!2} - 2 \cdot \frac{y^2}{4} + 2y^2 = 2\!\left(x + \frac{y}{2}\right)^{\!2} + \frac{3}{2}y^2.\]

Итак \(Q = 2\!\left(x + \tfrac{y}{2}\right)^2 + \tfrac{3}{2}y^2\).

(c) коэффициенты при квадратах \(2 > 0\) и \(\tfrac{3}{2} > 0\); если \(y \neq 0\), второе слагаемое \(> 0\); если \(y = 0\), \(x \neq 0\), первое \(> 0\). Значит \(Q > 0\) для всех \((x, y) \neq (0, 0)\): форма PD.

4.17 Доказательство критерия Сильвестра для \(2 \times 2\) (Домашнее задание 9, Задание 8)

Пусть \(A = \begin{pmatrix} a & b \\ b & c \end{pmatrix}\) — симметричная матрица \(2 \times 2\). Докажите: \(A \succ 0\) тогда и только тогда, когда \(a > 0\) и \(ac - b^2 > 0\).

Нажмите, чтобы увидеть решение

(\(\Rightarrow\)) Пусть \(A \succ 0\).

• \(x = \begin{pmatrix} 1 \\ 0 \end{pmatrix}\): \(x^T A x = a > 0\).
• Для \(x = \begin{pmatrix} t \\ 1 \end{pmatrix}\) имеем \(g(t) = at^2 + 2bt + c > 0\) при всех \(t \in \mathbb{R}\). При \(a > 0\) это возможно только при отрицательном дискриминанте: \((2b)^2 - 4ac < 0\), т.е. \(ac - b^2 > 0\).

(\(\Leftarrow\)) Пусть \(a > 0\) и \(ac - b^2 > 0\). Выделяем полный квадрат:

\[x^T A x = ax_1^2 + 2bx_1 x_2 + cx_2^2 = a\!\left(x_1 + \frac{b}{a}x_2\right)^{\!2} + \frac{ac - b^2}{a}\,x_2^2.\]

Оба коэффициента положительны. Если \(x_2 \neq 0\), второе слагаемое \(> 0\); если \(x_2 = 0\), \(x_1 \neq 0\), первое \(> 0\). Следовательно \(A \succ 0\). \(\square\)

4.18 Найти и классифицировать критическую точку (Домашнее задание 9, Задание 9)

Найдите и классифицируйте критические точки \(f(x, y) = x^2 + 2y^2 - 2xy - 4x + 2y\).

Нажмите, чтобы увидеть решение

Шаг 1: \(\nabla f = 0\).

\[\frac{\partial f}{\partial x} = 2x - 2y - 4 = 0 \implies x - y = 2. \tag{1}\]

\[\frac{\partial f}{\partial y} = 4y - 2x + 2 = 0 \implies -x + 2y = -1. \tag{2}\]

Из (1): \(x = y + 2\). Подстановка в (2): \(-(y + 2) + 2y = -1 \implies y = 1\), \(x = 3\).

Критическая точка: \((3, 1)\).

Шаг 2: гессиан.

\[H = \begin{pmatrix} 2 & -2 \\ -2 & 4 \end{pmatrix}.\]

\(H_{11} = 2 > 0\), \(\det(H) = 4 > 0\) → \(H \succ 0\) → локальный минимум в \((3, 1)\).

4.19 Квадратичная функция: критические точки (Домашнее задание 9, Задание 10)

Для \(f(x, y) = x^2 - xy + y^2\):

1. все критические точки;
2. гессиан;
3. классификация.

Нажмите, чтобы увидеть решение

(a) \(\partial f/\partial x = 2x - y = 0 \implies y = 2x\); \(\partial f/\partial y = -x + 2y = 0 \implies x = 2y\). Тогда \(y = 4y \implies y = 0\), \(x = 0\). Единственная точка: \((0, 0)\).

(b) \(H = \begin{pmatrix} 2 & -1 \\ -1 & 2 \end{pmatrix}\).

(c) \(H_{11} > 0\), \(\det H = 3 > 0\) → \(H \succ 0\) → локальный минимум (для PD-квадратичной формы он же глобальный).

4.20 Кубическая функция: критические точки (Домашнее задание 9, Задание 11)

Найдите и классифицируйте все критические точки \(f(x, y) = 2x^3 - 3x^2 + 2y^3 + 3y^2 - 12x - 12y\) (их четыре).

Нажмите, чтобы увидеть решение

Задача совпадает с Лаба 9, Задание 5 (раздел 4.5 выше).

Точка	Класс
\((2, 1)\)	Локальный минимум
\((2, -2)\)	Седло
\((-1, 1)\)	Седло
\((-1, -2)\)	Локальный максимум

4.21 Вырожденный случай: критическая точка (Домашнее задание 9, Задание 12)

Пусть \(f(x, y) = x^4 + y^4 - 4xy + 1\).

1. гессиан в \((0, 0)\);
2. что даёт о нём тест второго порядка;
3. является ли \((0, 0)\) локальным минимумом? Обоснуйте.

Нажмите, чтобы увидеть решение

Критическая точка: \(\nabla f = \begin{pmatrix} 4x^3 - 4y \\ 4y^3 - 4x \end{pmatrix}\); в \((0,0)\) это \(\begin{pmatrix} 0 \\ 0 \end{pmatrix}\). ✓

(a) \(\partial^2 f/\partial x^2 = 12x^2\), смешанная \(-4\), \(\partial^2 f/\partial y^2 = 12y^2\). В нуле:

\[H(0, 0) = \begin{pmatrix} 0 & -4 \\ -4 & 0 \end{pmatrix}.\]

(b) \(\det H(0,0) = -16 < 0\) → гессиан неопределён, тест второго порядка не решает вопрос о типе точки.

(c) Вдоль \(y = x\): \(f(t,t) = 2t^4 - 4t^2 + 1\). При малых \(|t| \neq 0\) главный вклад даёт \(-4t^2\), т.е. \(f(t,t) < 1 = f(0,0)\), значит вдоль этой прямой \(f\) убывает — локального минимума нет, точка \((0,0)\) — седло (тест «сломался» из‑за неопределённого гессиана).

4.22 Выпуклость экспоненты (Домашнее задание 9, Задание 13)

Докажите, что \(f(x, y) = e^{x^2 + y^2}\) выпукла на \(\mathbb{R}^2\).

Нажмите, чтобы увидеть решение

Идея: показать \(H(x,y) \succeq 0\) (здесь даже \(H \succ 0\)) для всех \((x,y)\).

Пусть \(g = x^2 + y^2\), \(f = e^g\). Тогда

\[\frac{\partial f}{\partial x} = 2x e^g, \quad \frac{\partial f}{\partial y} = 2y e^g,\]

\[\frac{\partial^2 f}{\partial x^2} = (2 + 4x^2)e^g, \quad \frac{\partial^2 f}{\partial y^2} = (2 + 4y^2)e^g, \quad \frac{\partial^2 f}{\partial x \partial y} = 4xy e^g.\]

\[H(x,y) = e^{x^2+y^2} \begin{pmatrix} 2 + 4x^2 & 4xy \\ 4xy & 2 + 4y^2 \end{pmatrix}.\]

Множитель \(e^{x^2+y^2} > 0\); достаточно \(M = \begin{pmatrix} 2 + 4x^2 & 4xy \\ 4xy & 2 + 4y^2 \end{pmatrix}\). Имеем \(M_{11} > 0\) и

\[\det(M) = (2 + 4x^2)(2 + 4y^2) - 16x^2y^2 = 4 + 8(x^2 + y^2) > 0.\]

По Сильвестру \(M \succ 0\) всюду → \(H \succ 0\) → \(f\) строго выпукла на \(\mathbb{R}^2\).

4.23 Выпуклость квадратичной функции (Домашнее задание 9, Задание 14)

Выпукла ли \(f(x, y) = x^2 + 2y^2 - xy + 3x - 2y + 5\)?

Нажмите, чтобы увидеть решение

См. Лаба 9, Задание 8 (4.8 выше).

\(H = \begin{pmatrix} 2 & -1 \\ -1 & 4 \end{pmatrix}\) везде PD (\(\det H = 7 > 0\), \(H_{11} = 2 > 0\)) → \(f\) строго выпукла.

4.24 Выпуклость \(\iff\) PSD-гессиан для квадратичной цели (Домашнее задание 9, Задание 15)

Пусть \(f(\mathbf{x}) = \frac{1}{2}\mathbf{x}^T A \mathbf{x} - \mathbf{b}^T \mathbf{x}\), \(A\) симметрична. Докажите: \(f\) выпукла \(\iff\) \(A \succeq 0\).

Нажмите, чтобы увидеть решение

\(\nabla f(x) = Ax - b\), гессиан \(H(x) = A\) (не зависит от \(x\)).

Для дважды дифференцируемой функции: выпуклость \(\iff\) \(H(x) \succeq 0\) в каждой точке. Здесь это условие на \(A\):

\[f \text{ выпукла} \iff A \succeq 0. \quad \square\]

Замечание: если \(A \succ 0\), то \(f\) строго выпукла, единственный глобальный минимум \(x^* = A^{-1}b\).

4.25 Максимум прибыли (Домашнее задание 9, Задание 16)

Прибыль фирмы \(P(x, y) = -2x^2 - 3y^2 + 4xy + 20x + 30y - 100\).

1. уровни выпуска \((x^*, y^*)\), максимизирующие \(P\);
2. проверка, что это максимум.

Нажмите, чтобы увидеть решение

(a) \(\partial P/\partial x = -4x + 4y + 20 = 0 \implies x - y = 5\). \(\partial P/\partial y = -6y + 4x + 30 = 0 \implies 2x - 3y = -15\). Отсюда \(x = y + 5\), подстановка: \(y = 25\), \(x = 30\).

Стационарная точка: \((30, 25)\).

(b) \(H = \begin{pmatrix} -4 & 4 \\ 4 & -6 \end{pmatrix}\), \(H_{11} < 0\), \(\det H = 8 > 0\) → ND → локальный максимум; для согласованной квадратичной формы с отрицательно определённой квадратичной частью это же глобальный максимум.

4.26 \(\det(A) > 0\) для SPD (Домашнее задание 9, Задание 17)

Пусть \(A\) — симметричная положительно определённая \(n \times n\). Докажите \(\det(A) > 0\).

Нажмите, чтобы увидеть решение

По спектральной теореме у \(A\) есть \(n\) вещественных собственных значений \(\lambda_i\) (с учётом кратностей). Из \(A \succ 0\) следует \(\lambda_i > 0\). Определитель — произведение собственных значений:

\[\det(A) = \prod_{i=1}^n \lambda_i > 0. \quad \square\]

4.27 От положительного спектра к неравенству PD (Домашнее задание 9, Задание 18)

Пусть симметричная \(n \times n\) матрица \(A\) имеет все собственные значения положительными. Докажите \(\mathbf{x}^T A \mathbf{x} > 0\) для всех \(\mathbf{x} \neq \mathbf{0}\).

Нажмите, чтобы увидеть решение

\(A = Q \Lambda Q^T\) с ортогональной \(Q\), \(\Lambda = \text{diag}(\lambda_1, \ldots, \lambda_n)\), все \(\lambda_i > 0\).

Положим \(y = Q^T x\); тогда \(x \neq 0 \iff y \neq 0\) и

\[x^T A x = y^T \Lambda y = \sum_{i=1}^n \lambda_i y_i^2.\]

Если \(y_k \neq 0\), то \(\lambda_k y_k^2 > 0\), остальные слагаемые \(\geq 0\), значит сумма \(> 0\). \(\square\)

4.28 Сумма двух PD снова PD (Домашнее задание 9, Задание 19)

Пусть \(A\) и \(B\) — симметричные положительно определённые \(n \times n\). Докажите, что \(A + B\) тоже PD.

Нажмите, чтобы увидеть решение

Для \(x \neq 0\): \(x^T(A + B)x = x^T A x + x^T B x > 0\). Симметричность: \((A+B)^T = A+B\). \(\square\)

4.29 Общая однородная квадратичная функция (Домашнее задание 9, Задание 20)

Пусть \(f(x, y) = ax^2 + 2bxy + cy^2\), \(a > 0\).

1. условие на \(a,b,c\) для локального минимума в \((0,0)\);
2. для локального максимума;
3. для седла.

Нажмите, чтобы увидеть решение

\[H = \begin{pmatrix} 2a & 2b \\ 2b & 2c \end{pmatrix} = 2\begin{pmatrix} a & b \\ b & c \end{pmatrix}.\]

Классификация \((0,0)\) совпадает с определённостью \(\begin{pmatrix} a & b \\ b & c \end{pmatrix}\): \(\Delta_1 = a\), \(\Delta_2 = ac - b^2\).

(a) локальный минимум \(\iff\) \(H \succ 0\) \(\iff\) \(a > 0\) и \(ac - b^2 > 0\); при заданном \(a > 0\) это \(\mathbf{ac - b^2 > 0}\).

(b) локальный максимум \(\iff\) \(H \prec 0\) \(\implies\) нужен знакочередующийся шаблон ведущих миноров с \(H_{11} < 0\), т.е. \(2a < 0\), что противоречит \(a > 0\). При \(a > 0\) локального максимума в \((0,0)\) нет.

(c) седло \(\iff\) \(\det(H) < 0\) \(\iff\) \(ac - b^2 < 0\) \(\iff\) \(\mathbf{b^2 > ac}\).

4.30 PD по определению (Лекция 9, Пример 1)

Пусть \(A = \begin{pmatrix} 4 & 0 \\ 0 & 2 \end{pmatrix}\). Проверьте \(A \succ 0\) по определению.

Нажмите, чтобы увидеть решение

Для \(x = \begin{pmatrix} x_1 \\ x_2 \end{pmatrix} \neq 0\):

\[x^T A x = 4x_1^2 + 2x_2^2 > 0,\]

так как хотя бы одна координата ненулевая. Значит \(A\) — PD.

4.31 Диагонализация квадратичной формы (Лекция 9, Пример 2)

Для \(Q(x, y) = 2x^2 - 4xy + 5y^2\) проверьте знакоопределённость по собственным значениям и выпишите диагональный вид.

Нажмите, чтобы увидеть решение

\(A = \begin{pmatrix} 2 & -2 \\ -2 & 5 \end{pmatrix}\).

\[\det(A - \lambda I) = (\lambda - 1)(\lambda - 6) = 0, \quad \lambda_1 = 1 > 0,\; \lambda_2 = 6 > 0.\]

Значит \(A \succ 0\), квадратичная форма положительна при \((x,y) \neq (0,0)\).

После ортогональной замены \(u = Q^T x\), где столбцы ортогональной \(Q\) — нормированные собственные векторы \(A\), в координатах \((u_1, u_2)\) форма принимает вид \(\lambda_1 u_1^2 + \lambda_2 u_2^2 = u_1^2 + 6u_2^2\) — явная сумма квадратов с положительными коэффициентами.

4.32 Полный цикл оптимизации (Лекция 9, Пример 3)

Пусть \(f(x, y) = x^2 + 2y^2 + 2xy - 2x + 1\). Найдите критические точки и классифицируйте.

Нажмите, чтобы увидеть решение

\(\partial f/\partial x = 2x + 2y - 2 = 0 \implies x + y = 1\); \(\partial f/\partial y = 4y + 2x = 0 \implies x + 2y = 0\). Вычитая: \(y = -1\), \(x = 2\).

\(H = \begin{pmatrix} 2 & 2 \\ 2 & 4 \end{pmatrix}\), \(H_{11} > 0\), \(\det H = 4 > 0\) → \(H \succ 0\) → в \((2,-1)\) локальный минимум, \(f(2,-1) = -1\).

4.33 Разложение Холецкого (Лекция 9, Пример 4)

Найдите \(A = LL^T\) для \(A = \begin{pmatrix} 4 & 2 \\ 2 & 2 \end{pmatrix}\).

Нажмите, чтобы увидеть решение

\(\Delta_1 = 4 > 0\), \(\Delta_2 = 4 > 0\) → \(A \succ 0\), фактор Холецкого существует.

\(LL^T = A\) даёт \(l_{11} = 2\), \(l_{21} = 1\), \(l_{22} = 1\):

\[L = \begin{pmatrix} 2 & 0 \\ 1 & 1 \end{pmatrix}, \quad LL^T = A. \checkmark\]

4.34. SVD: сингулярное разложение (Контроль II: повторение, Задание 1)

Найдите SVD (singular value decomposition) \(A = U\Sigma V^T\) для матрицы

\[A = \begin{bmatrix} 1 & 0 \\ 0 & 2 \\ 0 & 0 \end{bmatrix}.\]

Нажмите, чтобы увидеть решение

Ключевая идея: собственные значения \(A^TA\) (\(n \times n\)) дают квадраты сингулярных чисел; столбцы \(V\) — ортонормированные собственные векторы \(A^TA\); столбцы \(U\) — собственные векторы \(AA^T\) (\(m \times m\)); порядок столбцов — по убыванию сингулярных значений.

Шаг 1: \(A^TA\) и \(AA^T\).

\[A^TA = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 2 & 0 \end{bmatrix} \begin{bmatrix} 1 & 0 \\ 0 & 2 \\ 0 & 0 \end{bmatrix} = \begin{bmatrix} 1 & 0 \\ 0 & 4 \end{bmatrix},\]

\[AA^T = \begin{bmatrix} 1 & 0 \\ 0 & 2 \\ 0 & 0 \end{bmatrix} \begin{bmatrix} 1 & 0 & 0 \\ 0 & 2 & 0 \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 4 & 0 \\ 0 & 0 & 0 \end{bmatrix}.\]

Шаг 2: собственные значения.

Для \(A^TA\) (уже диагональна): \(\lambda_1 = 4\), \(\lambda_2 = 1\).

Для \(AA^T\): \(\lambda_1 = 4\), \(\lambda_2 = 1\), \(\lambda_3 = 0\).

Ненулевые части спектров \(A^TA\) и \(AA^T\) совпадают.

Шаг 3: сингулярные значения (по убыванию):

\[\sigma_1 = \sqrt{4} = 2, \qquad \sigma_2 = \sqrt{1} = 1.\]

Шаг 4: матрица \(\Sigma\).

Размер \(\Sigma\) как у \(A\) (\(3 \times 2\)), на диагонали \(\sigma_i\):

\[\Sigma = \begin{bmatrix} 2 & 0 \\ 0 & 1 \\ 0 & 0 \end{bmatrix}.\]

Шаг 5: матрица \(V\) из \(A^TA\).

\(A^TA = \text{diag}(1, 4)\); собственные векторы — векторы стандартного базиса. В порядке \(\lambda = 4, 1\):

\[v_1 = \begin{bmatrix} 0 \\ 1 \end{bmatrix} \quad (\lambda = 4), \qquad v_2 = \begin{bmatrix} 1 \\ 0 \end{bmatrix} \quad (\lambda = 1).\]

\[V = \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix}.\]

Шаг 6: матрица \(U\) из \(AA^T\).

\(AA^T = \text{diag}(1, 4, 0)\); порядок \(\lambda = 4, 1, 0\):

\[u_1 = \begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix} \quad (\lambda = 4), \quad u_2 = \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix} \quad (\lambda = 1), \quad u_3 = \begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix} \quad (\lambda = 0).\]

\[U = \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}.\]

Шаг 7: проверка \(A = U\Sigma V^T\).

\[U\Sigma V^T = \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix} \begin{bmatrix} 2 & 0 \\ 0 & 1 \\ 0 & 0 \end{bmatrix} \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix} = \begin{bmatrix} 0 & 1 \\ 2 & 0 \\ 0 & 0 \end{bmatrix} \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix} = \begin{bmatrix} 1 & 0 \\ 0 & 2 \\ 0 & 0 \end{bmatrix} = A. \checkmark\]

Ответ:

\[A = \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix} \begin{bmatrix} 2 & 0 \\ 0 & 1 \\ 0 & 0 \end{bmatrix} \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix}.\]

4.35. Ранг, сингулярные значения и четыре подпространства (Контроль II: повторение, Задание 2)

Для \(A = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 1 & 3 \end{bmatrix}\) найдите \(\text{rank}(A)\), сингулярные значения и \(\dim\text{Col}(A)\), \(\dim\text{Null}(A)\), \(\dim\text{Col}(A^T)\), \(\dim\text{Null}(A^T)\).

Нажмите, чтобы увидеть решение

Ключевая идея: ранг равен числу ненулевых сингулярных значений; для ранга \(r\): \(\dim\text{Col}(A) = r\), \(\dim\text{Null}(A) = n - r\), \(\dim\text{Col}(A^T) = r\), \(\dim\text{Null}(A^T) = m - r\).

Здесь \(m = 2\), \(n = 3\).

Шаг 1: \(AA^T\).

\[AA^T = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 1 & 3 \end{bmatrix} \begin{bmatrix} 1 & 2 \\ 3 & 1 \\ 5 & 3 \end{bmatrix} = \begin{bmatrix} 1 + 9 + 25 & 2 + 3 + 15 \\ 2 + 3 + 15 & 4 + 1 + 9 \end{bmatrix} = \begin{bmatrix} 35 & 20 \\ 20 & 14 \end{bmatrix}.\]

Шаг 2: спектр \(AA^T\).

\[\det(AA^T - \lambda I) = (35 - \lambda)(14 - \lambda) - 400 = \lambda^2 - 49\lambda + 490 - 400 = \lambda^2 - 49\lambda + 90 = 0.\]

\[\lambda = \frac{49 \pm \sqrt{49^2 - 4 \cdot 90}}{2} = \frac{49 \pm \sqrt{2401 - 360}}{2} = \frac{49 \pm \sqrt{2041}}{2}.\]

Численно: \(\sqrt{2041} \approx 45{,}18\), \(\lambda_1 \approx 47{,}09\), \(\lambda_2 \approx 1{,}91\) — обе положительны, ранг полный по строкам.

Шаг 3: сингулярные значения.

\[\sigma_1 \approx \sqrt{47{,}09} \approx 6{,}86, \qquad \sigma_2 \approx \sqrt{1{,}91} \approx 1{,}38.\]

Шаг 4: ранг. \(\text{rank}(A) = 2\).

Шаг 5: размерности подпространств.

Подпространство	Формула	Значение
\(\text{Col}(A)\)	\(r\)	\(2\)
\(\text{Null}(A)\)	\(n - r\)	\(1\)
\(\text{Col}(A^T)\)	\(r\)	\(2\)
\(\text{Null}(A^T)\)	\(m - r\)	\(0\)

Проверка: \(2 + 1 = 3 = n\) ✓, \(2 + 0 = 2 = m\) ✓.

Ответ: \(\text{rank}(A) = 2\); \(\sigma_1 \approx 6{,}86\), \(\sigma_2 \approx 1{,}38\); размерности как в таблице.

4.36. Теория SVD (Контроль II: повторение, Задание 3)

Пусть \(A \in \mathbb{R}^{m \times n}\), \(\text{rank}(A) = r\).

(a) Сколько ненулевых сингулярных значений у \(A\)?

(b) Как связаны спектры \(A^TA\) и \(AA^T\)?

(c) Каков размер матрицы \(\Sigma\) в полном SVD \(A = U\Sigma V^T\)?

Нажмите, чтобы увидеть решение

Ключевая идея: SVD существует для любой вещественной матрицы; ранг, сингулярные числа и спектры \(A^TA\), \(AA^T\) связаны стандартными соотношениями.

(a) Число ненулевых \(\sigma_i\) равно \(r\):

\[|\{\sigma_i : \sigma_i > 0\}| = \text{rank}(A) = r.\]

У \(A^TA\) ровно \(r\) положительных и \(n - r\) нулевых собственных значений (с учётом кратностей).

(b) \(A^TA\) (\(n \times n\)) и \(AA^T\) (\(m \times m\)) имеют одинаковые ненулевые собственные значения; у большей из матриц остальные собственные значения нулевые. Например, при \(n > m\):

\[\Lambda(A^TA) = \Lambda(AA^T) \cup \underbrace{\{0, \ldots, 0\}}_{n - m}.\]

В общем виде: \(\{\lambda_i(A^TA) : \lambda_i > 0\} = \{\lambda_i(AA^T) : \lambda_i > 0\}\).

(c) \(\Sigma \in \mathbb{R}^{m \times n}\); на главной диагонали \(\sigma_1 \geq \cdots \geq \sigma_r > 0\), вне диагонали нули.

Ответ: (a) ровно \(r\) ненулевых \(\sigma_i\); (b) совпадают ненулевые части спектров; (c) \(\Sigma\) того же размера, что \(A\).

4.37. PD по критерию Сильвестра (Контроль II: повторение, Задание 4)

Докажите, что \(M = \begin{bmatrix} 2 & 1 & 0 \\ 1 & 2 & 1 \\ 0 & 1 & 2 \end{bmatrix}\) — PD.

Нажмите, чтобы увидеть решение

Ключевая идея: для симметричной матрицы \(M \succ 0\) \(\iff\) все ведущие главные миноры \(> 0\).

\(\Delta_1 = 2 > 0\). ✓

\(\Delta_2 = \begin{vmatrix} 2 & 1 \\ 1 & 2 \end{vmatrix} = 3 > 0\). ✓

\(\Delta_3\): разложение по третьей строке даёт алгебраические дополнения с \(C_{32} = -2\), \(C_{33} = 3\), итого \(\Delta_3 = 8 > 0\). ✓

По Сильвестру \(M \succ 0\).

4.38. Квадратичная форма (Контроль II: повторение, Задание 5)

Пусть \(Q(x, y) = x^2 + 4xy + 5y^2\).

(a) \(\mathbf{x}^T A \mathbf{x}\) и симметричная \(A\).

(b) сумма квадратов.

(c) класс определённости \(A\).

Нажмите, чтобы увидеть решение

(a) \(A_{11} = 1\), \(A_{22} = 5\), \(A_{12} = A_{21} = 2\):

\[A = \begin{bmatrix} 1 & 2 \\ 2 & 5 \end{bmatrix}.\]

(b) \(Q = (x + 2y)^2 + y^2\).

(c) \(\Delta_1 = 1 > 0\), \(\Delta_2 = 1 > 0\) → PD. Согласовано с (b): \(Q > 0\) при \((x,y) \neq (0,0)\).

4.39. Локальные экстремумы \(\Phi\) (Контроль II: повторение, Задание 6)

Найдите все локальные экстремумы \(\Phi(x, y) = x^2 + 2y^2 - 2xy - 4x + 2y\).

Нажмите, чтобы увидеть решение

\(\nabla \Phi = 0\): \(2x - 2y - 4 = 0\), \(4y - 2x + 2 = 0\) → \(x = y + 2\), подстановка даёт \(y = 1\), \(x = 3\).

\(H_\Phi = \begin{bmatrix} 2 & -2 \\ -2 & 4 \end{bmatrix}\) постоянна; \(\Delta_1 > 0\), \(\Delta_2 > 0\) → \(H_\Phi \succ 0\) → единственный локальный (и глобальный) минимум в \((3,1)\), \(\Phi(3,1) = -5\).

4.40. Матрица квадратичной формы и определённость (Контроль II, Задание 1)

\[Q(x) = 3x_1^2 + 2x_2^2 + 4x_3^2 - 2x_1x_2 + 4x_1x_3\]

(a) \(Q(x) = x^T Ax\), найти симметричную \(A\).

(b) PD ли \(A\)?

Нажмите, чтобы увидеть решение

На диагонали коэффициенты квадратов; вне диагонали — половины коэффициентов смешанных произведений:

\[A = \begin{bmatrix} 3 & -1 & 2 \\ -1 & 2 & 0 \\ 2 & 0 & 4 \end{bmatrix}.\]

Сильвестр: \(\Delta_1 = 3 > 0\), \(\Delta_2 = 5 > 0\), \(\Delta_3 = 12 > 0\) → \(A \succ 0\).

4.41. Критические точки и гессиан (Контроль II, Задание 2)

\[f(x, y) = x^2 - xy + y^2\]

(a) все критические точки;

(b) гессиан;

(c) тип каждой точки.

Нажмите, чтобы увидеть решение

\(f_x = 2x - y = 0\), \(f_y = -x + 2y = 0\) → единственная точка \((0,0)\).

\(H = \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix}\), \(\Delta_1 > 0\), \(\det H > 0\) → локальный (и глобальный) минимум в \((0,0)\).

4.42. Полное SVD и масштаб (Контроль II, Задание 3)

\[A = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 2 & 0 \end{bmatrix}\]

(a) сингулярные значения;

(b) полное SVD: \(U\), \(\Sigma\), \(V\);

(c) SVD для \(5A\).

Нажмите, чтобы увидеть решение

(a) \(AA^T = \text{diag}(1,4)\) → \(\sigma_1 = 2\), \(\sigma_2 = 1\).

(b) \(U = \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix}\), \(\Sigma = \begin{bmatrix} 2 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}\), \(A^TA = \text{diag}(1,4,0)\) → \(V = \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}\); проверка \(U\Sigma V^T = A\). ✓

(c) \(5A = U(5\Sigma)V^T\), сингулярные значения \(10\) и \(5\), те же \(U\), \(V\).

4.43. Свойства PD и диапазон по \(k\) (Контроль II, Задание 4)

Пусть \(A\) и \(B\) — симметричные PD одного размера.

(a) почему \(A + B\) — PD?

(b) почему \(\det(A) > 0\)?

(c) при каких \(k\) матрица \(M = \begin{bmatrix} 4 & k & 0 \\ k & 9 & 0 \\ 0 & 0 & 1 \end{bmatrix}\) — PD?

Нажмите, чтобы увидеть решение

(a) \((A+B)^T = A+B\); для \(x \neq 0\): \(x^T(A+B)x = x^TAx + x^TBx > 0\).

(b) \(\det(A) = \prod \lambda_i\), все \(\lambda_i > 0\).

(c) Сильвестр: \(\Delta_1 = 4 > 0\); \(\Delta_2 = 36 - k^2 > 0\); \(\Delta_3 = \Delta_2\) → \(-6 < k < 6\).